ViSkill:用演化视觉原生技能强化 VLM 智能体
🧭 Agent 强化学习 · 视觉技能库
Zhejiang University
提出 ViSkill,将成功轨迹编码为视觉原生技能卡,检索引导推理与奖励塑造,形成技能库与策略优化闭环
📌 工作参考价值(4 点)
- 视觉原生技能表示:在电商导购/UI 自动化 Agent 中,截图、布局标注等视觉信息不要全部文本化;把成功交互的关键帧保存为“视觉技能卡”,检索后直接作为多模态上下文,减少空间关系丢失,提高策略泛化。
- 技能库与策略优化闭环:将成功轨迹蒸馏回技能库,并让检索技能同时用于推理和奖励塑形,使技能积累与策略改进互相强化;业务 Agent 可用类似机制积累成功会话片段,提升样本效率。
- 冷启动机制:用少量高质量演示初始化技能库,加速早期 RL 训练;新业务或新场景上线时,可从历史专家轨迹构建种子技能库,减少冷启动成本。
- 奖励塑形技巧:引入检索技能相似度作为辅助奖励,有助于稳定训练,但需监控技能库陈旧度避免误导策略。
SkillForge:以动态技能生命周期协同进化技能与智能体
🧭 Agent 技能库生命周期管理 ★ 深度解读
Institute of Computing Technology, Chinese Academy of Sciences · University of California, Merced · Tsinghua University
用 fitness 驱动的技能生命周期和 LLM 变异,让技能库与 RL 策略协同进化,避免低效技能污染上下文
📌 工作参考价值(4 点)
- 技能/工具/规则库不能 append-only:在电商 Agent 或导购 SOP 库里,为每个技能维护 usage 与 success 计数,计算 fitness,并设置预退休与运行时退休机制,主动淘汰过期或低效条目,避免上下文被污染。
- 生命周期状态机可直接落地:用 trial/active/stable/retired 四态加 hysteresis(stable 先 demote 才能 retire),既保护已稳定技能不被瞬时波动误杀,又能快速淘汰长尾低质技能;generation-aware 保护期可迁移到新上线的工具或规则。
- LLM 变异可用于自动优化 prompt/SOP:按 1−fitness 加权选择低效技能作为 parent,结合失败轨迹让教师模型改写生成 trial 子技能,再通过真实反馈决定去留;这可用于电商导购话术、搜索 query 生成策略的持续自动迭代。
- 预退休阶段值得借鉴:在把外部知识、规则或技能注入线上 RL 或 SFT 数据前,先用 base model rollout 做一轮离线 fitness 评估,过滤掉低质量种子,能显著降低训练噪声,提升最终性能。
重建、练习、真机部署:具身智能体的引导式自我改进
🧭 具身智能体自我改进
UC Berkeley · Amazon FAR · MIT · University of Chicago
RPG 不更新模型权重,在仿真中重构练习任务并自我改进技能与提示,22 项操作成功率从 28.6% 提升至 95.0%
📌 工作参考价值(4 点)
- 借鉴“不更新权重、用可复用符号技能库 + 系统提示修订”的固化系统做法:在电商 Agent 中把高频操作抽象成工具/skill,LLM 只负责调度和组合,降低每次推理成本与非确定性。
- 用“执行反馈 + 离线日志重构练习任务”做自举:从历史成功/失败会话中自动生成回归任务和仿真环境,每次修改 prompt 或 skill 前先在跨任务集上评估,避免局部过拟合。
- 借鉴“候选变更先单测、再合并回归”的变更管理:对 prompt 模板、工具定义、规则库做 A/B 和 cross-task evaluation,只保留被验证有效的修订,形成 Agent 系统的 CI/CD。
- 具身/机器人特有的 privileged simulator state 与 sim-to-real calibration 在电商场景不可直接复用;主要价值在于自我改进流程、技能复用与跨任务验证机制。
FlowEvo:工作流与可执行技能共演化的自进化智能体
🧭 Agent 自进化 · 工作流与技能共演化 ★ 深度解读
Southeast University · Rensselaer Polytechnic Institute · The Hong Kong University of Science and Technology
训练免更新框架,将成功工作流编译为可执行技能,并在推理时通过直接复用或技能条件生成持续提升智能体能力
📌 工作参考价值(4 点)
- 在导购/客服/搜索推荐 Agent 中,把验证通过的会话或工具调用轨迹编译为带接口与测试的技能条目,而不是仅存 prompt 文本;可显著降低重复探索的 token 成本,适合高并发商品推荐、Query 改写等场景。
- 采用「动态生成 / 直接执行 / 技能条件化生成」三级路由,并设直接执行失败自动回退;可嵌入商品属性抽取、推荐解释、营销文案生成等 workflow,结构化任务优先走缓存式执行。
- 用对比式效用追踪(compare skill applied vs withheld)做负迁移治理:对 prompt 版本、策略技能、推荐模板做持续 AB 式统计,低于阈值自动降权/停用,防止线上记忆库被低质量经验污染。
- 该框架在可验证信号(结构化 action、code、math)下更稳,对无明确 reward 的开放对话需谨慎;其「小模型受益大」结论可用于低资源场景,用记忆库补偿模型能力。
SkillZip:面向可扩展 Agent 技能库的契约保持图压缩
🧭 Agent 技能库压缩与检索
UNSW · CSIRO
执行感知的 section-level 图压缩:用可逆端口化宏保持契约,压缩比 3.46x,效果最高 +12.2 点
📌 工作参考价值(4 点)
- 将推荐/广告 agent 的 SOP(如商品信息清洗→类目映射→创意生成→合规校验)拆成 section-level procedural graph,而不是整段文本 skill;检索与缓存单位对齐到子流程,能显著降低 LLM context 占用并提高跨任务复用。
- 借鉴契约保持压缩:压缩时显式保留流程“边界签名 + 依赖闭包 + verifier 可达性”,可保证压缩后流程仍可执行、可校验、可回滚;适合做线上推荐策略 / 审核流程的版本化与安全压缩。
- 宏按需展开(hydrate 紧凑依赖闭包,执行到才展开 macro)可以落地为 Agent 工具编排中的 lazy loading 与按需注入上下文,减少首轮 token 与延迟。
- ReZip 的“执行证据修订 risky macros”可借鉴为 skill 库 / prompt 库的在线增量更新与回滚机制:用线上执行失败信号触发局部重压缩,而不是全库重训。
持续技能基准:评估LLM智能体能否真正进化其能力
🧭 Agent连续技能学习评估 ★ 深度解读
Institute for Artificial Intelligence, Peking University · Beijing Institute for General Artificial Intelligence
构建动态评估框架,揭示顺序执行提升性能但技能库维护未显著超越纯上下文学习,技能泛化仍难
📌 工作参考价值(4 点)
- 纯上下文学习可替代复杂技能库:在电商Agent的工作流中,对于简单的顺序任务(如用户意图识别→商品推荐→生成文案),直接利用对话历史和反馈的上下文学习表现与维护显式技能库相当,可以简化系统设计,避免技能库膨胀。
- 警惕技能碎片化:弱模型容易生成大量任务特定技能且复用率低,导致检索负担加重。可以设计技能合并策略(如定期聚类相似技能并泛化)或设置技能池容量限制,通过淘汰低频技能来维持效率。
- 任务流设计需注入技能依赖结构:通过构建任务依赖图并按拓扑排序安排任务顺序(难度递进 + 技能复用),能显著提高技能覆盖率和转移机会,这在推荐系统的多阶段流程(召回→粗排→精排→策略)中可借鉴,使上游产出的特征或知识能被下游利用。
- 评估指标可移植:任务重用率和核心技能覆盖率可作为量化连续学习环境质量的指标,用于检测推荐序列中是否存在有效的知识迁移路径。
SPyCE:多模态智能体的技能-策略协同进化框架
🧭 多模态Agent · 技能-策略协同进化
Zhejiang University · Beijing University of Posts and Telecommunications
将多模态推理轨迹蒸馏为层级技能库,与策略在强化学习中协同进化,形成自我改进闭环
📌 工作参考价值(4 点)
- 构建层次化技能库:执行技能(局部视觉操作)和工作流技能(高层工具编排),可直接复用于电商多模态Agent设计,将商品图片分析、多步工具调用沉淀为可复用模块。
- 技能与策略闭环进化:在线RL中,用策略生成的高分轨迹持续更新技能库,再用检索到的技能引导策略探索,可实现Agent自我改进,适合需要长期运行的搜索推荐辅助Agent。
- 检索增强的策略条件:将历史成功技能作为先验注入策略模型,可大幅提高样本效率,尤其适用于多步交互场景(如智能客服、视觉比货),避免从零开始探索工具使用模式。
- 视觉操作封装:把图像裁剪、对比、OCR等原子操作抽象为执行技能,可构建可组合的视觉推理流水线,降低MLLM直接操作像素的复杂度。
KnowAct-GUIClaw:知识驱动、完美执行的个人 GUI 助理,具备自演化记忆与技能
🧭 Agent 框架 · 自我演化 · GUI 交互
Harbin Institute of Technology, Shenzhen · Shenzhen Loop Area Institute
提出 KnowAct-GUIClaw 框架,通过可插拔的 GUI 子智能体与经验归因记忆、自演化技能库,实现跨平台长程任务自动化,性能超越闭源模型
📌 工作参考价值(4 点)
- 经验归因记忆与技能库的架构可迁移至对话或推荐 Agent:将用户交互历史与反馈持续存入记忆,用于动态更新用户画像和决策策略,提升长会话中的准确性。
- 可插拔子智能体设计适用于多端部署:在电商/广告场景中,可为不同平台(App、小程序、网页)开发专用 GUI 子智能体,共享同一记忆与技能库,降低跨平台迁移成本。
- 技能自演化机制可用于工具调用优化:借鉴其从执行经验中自动提取并泛化“技能”的思路,可让推荐系统或广告投放 Agent 根据历史效果数据自动发现高频操作模式,形成可复用的执行捷径。
- 基于开源的 Agent 框架改造:在 OpenClaw 等现有框架上引入 Know-Route-Act-Reflect 管线,无需从零开发,即可尝试为用户助理类产品增加自我改进能力。
SkillCenter:面向自主AI智能体的大规模源归因技能库
🧭 Agent 技能增强与知识基础设施
Stony Brook University · University of Southern California · Lehigh University · Florida State University
提出迄今最大的开放技能库,含216,938个源归因结构化技能,提升AI智能体输出正确性与安全性
📌 工作参考价值(4 点)
- 在电商Agent的开发中,可借鉴源归因机制,要求每个自动化决策或文案生成均关联到具体知识来源(如行业标准、历史最佳实践),从而减少幻觉输出,增强可信度和合规性。
- 技能模板化生成结合SkillGate质量门控,可用于自动构建和维护电商运营知识库(如促销策略、商品描述规范),通过LLM初步生成后自动校验,降低人工审核成本。
- 离线可搜索的SQLite FTS5打包方式适合集成到推荐系统流水线中,为实时决策提供毫秒级技能检索,避免外部API延迟。
- 多源采集(学术论文+社区贡献)的融合思路,可启发构建电商领域的专家知识众包与审核闭环,持续迭代业务知识库。
LLM Agent 的生成式技能组合
🧭 生成式技能组合 · 任务条件序列预测 ★ 深度解读
University of North Carolina at Chapel Hill · Arizona State University · Honda Research Institute USA
将技能组合建模为任务条件序列预测,用小型解码器联合决定技能子集、数量和顺序,兼顾精度与效率
📌 工作参考价值(4 点)
- 可将推荐/广告系统的模块组合(如多路召回、策略组合)建模为任务条件序列生成,联合决定 Which/How many/Order,比单独检索或人工编排更准。
- 冻结通用编码器+微型自回归解码器(3.9M)架构,参数极少、推理快,适合线上实时服务,可直接替换现有检索式路由。
- 解码时引入 TF‑IDF 检索先验与集合成员先验,有效解决长尾模块选择,业务中可复用 BM25 或自定义相关性分作为 prior。
- 利用模块依赖图自动合成训练数据,减少人工标注成本;电商场景可构建召回→粗排→精排→重排的模块图来生成序列样本。
层次实验型智能体:通过主动实验进行上下文自我改进
🧭 LLM Agent主动实验与技能学习
University of Massachusetts Amherst
LLM通过主动实验动态学习可复用技能库,在未见物理任务中成功率从2%提升至77%
📌 工作参考价值(4 点)
- 新场景主动探索机制:在推荐或广告系统中,面对新用户群体或新品类时,可借鉴 HExA 的分层实验设计——高层规划探索方向(如尝试不同召回策略),低层执行具体干预并记录结果,形成可复用的“技能”模板(如特定人群的优惠券推送策略),避免盲目 random AB test。
- 在线学习技能库:将推荐系统优化过程抽象为“技能”(如某类 CTR 提升技巧),每次实验后的成功策略存入上下文技能库,下次类似场景可直接组合调用,类似 HExA 的 learn_from_experience,减少重复探索成本。
- 跨场景技能迁移:HExA 从简单物理任务中学习的技能可零样本迁移到困难任务(44% 成功率)。在推荐中,可在一个小流量域(如新频道)学到的有效策略(如冷启动物料组合方式)迁移至主域,降低冷启动成本。
- 上下文技能组合:HExA 通过上下文学习将实验产生的技能组合成复杂策略,业务中可用类似思路将多个简单推荐规则(召回、过滤、排序规则)作为可组合的“技能块”,Agent 根据当前场景动态拼接,无需重新训练模型。
论文导师:面向 Overleaf 的人本中心多智能体写作辅导系统
🧭 多智能体写作辅导系统
Carnegie Mellon University · University of Toronto · Vector Institute · ETH Zurich · Max Planck Institute for Intelligent Systems
构建专家技能库并协调 12 个专业 Agent,在 Overleaf 中提供可操作的论文修改建议
📌 工作参考价值(4 点)
- 专家技能库(Skill Library)设计:从资深研究者写作建议中提炼领域技能,并注入 Agent prompt,可迁移到电商场景中构建商品文案审核、客服应答等专用 Agent 的行为准则。
- 多智能体协同架构:将写作任务拆解为格式合规、措辞准确、术语一致等 12 个子任务,各 Agent 并行工作,这一模式可用于复杂推荐解释生成、多维度内容审查等场景。
- 工具链嵌入与交互设计:以 Overleaf 原生行内批注形式提供建议,不破坏用户主流程,类似思想可直接用在内部文案编辑、CRM 消息审核工具的 AI 增强上。
- 人本中心原则:AI 只提建议,写作仍由人完成,这种保留人工决策的设计适合电商中需要品控把关的环节,如大促文案、政策通知的 AI 辅助撰写。
技能不是一刀切:面向LLM Agent的模型感知技能对齐
🧭 Agent技能库的模型定制化进化与重写 ★ 深度解读
East China Normal University
不同模型需要不同的技能表述,MASA通过层次化进化搜索和轻量重写器实现模型定制化技能库,提升agent任务成功率。
📌 工作参考价值(4 点)
- 不同规模的LLM对技能(提示)粒度、风格极度敏感,在业务agent(如电商导购、客服)中必须针对所选模型定制技能库,避免照搬通用模板。
- MASA的搜索式技能进化可借鉴:使用教师LLM基于故障归因和模型能力卡迭代重写技能,通用策略用爬山法,任务特定技能用UCB树搜索,并引入“无效动作率”惩罚防止agent空转。
- 训练轻量重写器(4B小模型)替代昂贵教师搜索,能在无环境交互下将技能适配到新模型,大幅降低多模型部署成本,适合A/B测试或快速升级。
- 模型能力卡(架构、训练数据、强弱项)作为条件信号,可指导自动prompt/技能改写;业务中可构建类似画像,用于技能、提示的动态调优。
将代理技能升级为可执行程序函数:HASP 框架
🧭 Agent 技能可执行化 · Program Function ★ 深度解读
New York University · Salesforce AI Research
把 LLM Agent 的已知技能从被动文本变为可触发、可干预状态-动作的 Program Functions,实现推理时修正、后训练监督与技能库自进化。
📌 工作参考价值(4 点)
- 推理时动作硬修正:将常见失败模式(如过早终止、实体混淆)编码为 Program Function,在 Agent 循环中直接改写动作或注入纠正上下文,而不是只放入 Prompt 作为建议。这一思路可直接用于电商搜索 Agent 的多步推理,例如当检测到搜索结果过少时强制改写 Query,或在提交订单前强制检查库存。
- 结构化干预信号用于数据筛选:每个 PF 介入记录包含时机、模式、正确性、结果四维评分,作为轨迹质量权重叠加在任务奖励上。在构建离线对话或搜索轨迹数据时,可借鉴这种多维质量打分,提升 SFT/拒绝采样数据的有效性。
- 技能库演化需严格过滤:候选 PF 必须通过语法与模拟执行验证及教师审核才能入库,否则会严重损害性能(全过滤 60.3% vs 无过滤 36.3%)。在业务中构建可进化的策略库或规则库时,必须设计类似的自动化校验与人工审核门槛,避免技能“污染”。
- 内部化行为纠正 PF 更有效:训练后,那些纠正模型自身行为(如搜索不充分、查询过长)的 PF 会逐渐沉默,而与输入相关的 PF 仍激活。这提示我们可以有选择地只对高频行为错误进行强制干预,并进行针对性训练来内化,从而降低上线时的判断开销。
SkillsVote:Agent 技能生命周期治理框架
🧭 Agent 技能生命周期管理与受控进化 ★ 深度解读
MemTensor (Shanghai) Technology
将 Agent 技能视为生命周期制品,通过归因控制实现从采集、推荐到进化的闭环,提升长期任务表现。
📌 工作参考价值(4 点)
- 技能库的质量治理:对技能进行环境需求、质量、可验证性 profiling,只允许通过验证的技能进入推荐池,避免低质量技能污染上下文。电商知识库或工具库可借鉴相似准入设计。
- 任务前技能精炼:不将全量技能直接暴露给 agent,而是通过一次 agentic search 生成精简的技能集与使用指南,降低无关上下文的干扰。类似在 RAG 中,用轻量 agent 先检索、再压缩后再送入主模型。
- 执行后归因与证据门控:将长轨迹按子任务切分,区分结果是由技能引导、自主探索还是环境因素导致,仅将可复用的成功探索用于技能库更新。对于电商多步 Agent 的对话/操作日志,可借此提取高置信度经验并避免误更新。
- 离线 + 在线进化组合:先用历史任务构建冷启动技能库,再在新任务流中在线增量进化。生成式推荐系统中,可先用离线数据训练初始知识库(如促销规则),再通过线上反馈受控扩展。